Акции технологических компаний переживают удачный год. Несмотря на недавнее колебание, цена акций Большой пятерки — Alphabet, Amazon, Apple, Meta и Microsoft — подскочила на 60% с января, если измерять в корзине с одинаковым весом.

Цена акций одного крупного производителя чипов, Nvidia, утроилась, а другого, AMD, почти удвоилась.

Их отношение цены к прибыли (которое измеряет, сколько, по мнению участников рынка, стоит компания по отношению к ее прибыли) в десять раз выше, чем у медианной фирмы из S&P 500.

Основная причина всплеска — обещание искусственного интеллекта (ИИ).

С момента запуска в ноябре Chatgpt, чат-бота с искусственным интеллектом, инвесторы все больше воодушевлены новой волной технологий, которые могут создавать похожий на человека контент, от стихов и видеозаписей до строк кода.

Этот «генеративный ИИ» опирается на большие языковые модели, которые обучаются на больших кусках Интернета.

В 1960 году Норберт Винер опубликовал пророческое эссе. В нем отец кибернетики беспокоился о мире, в котором «машины учатся» и «разрабатывают непредвиденные стратегии со скоростью, которая сбивает с толку их программистов». 

Он думал, что такие стратегии могут включать в себя действия, которые эти программисты «на самом деле не желали» и вместо этого были «просто красочной имитацией их». 

Винер проиллюстрировал свою точку зрения басней немецкого поэта Гёте «Ученик чародея», в которой начинающий фокусник зачаровывает метлу, чтобы принести воду, чтобы наполнить ванну своего хозяина. Но стажер не может остановить метлу, когда ее задача выполнена. 

В конце концов метла приносит так много воды, что заливает комнату, потому что ей не хватает здравого смысла, чтобы знать, когда остановиться.

Поразительный прогресс современных исследований в области искусственного интеллекта (ИИ) показал, что опасения Винера вновь всплыли на поверхность. 

Так, гендиректор Google, Сундар Пичаи признался, что ИИ нуждается в государственном регулировании.

Теперь, когда массам доступны инструменты, которые раньше были в руках лишь небольшой группы людей, компании делают все, чтобы запретить ИИ и установить над ним контроль.

ИИ дает людям возможность очень быстро повышать свои компетенции и создавать то, что раньше создавали только корпорации. Таким образом, зависимость от правительства и корпораций снижается.

Скорее всего, в течение нескольких лет ИИ проникнет настолько широко, что 50-70% рынка профессиональных услуг рухнет. А кому тогда нужны будут консультанты, маркетологи, программисты, инженеры, юристы, бухгалтеры, дизайнеры, копирайтеры, менеджеры и еще 1000+ профессий, если есть ИИ, который позволяет создавать массу вещей в широких пределах и управлять процессами?

И хоть правительство может попытаться связать корпорации, оно не может связать людей. Ведь тенденция к тому, что языковые модели становятся мощней и компактней, означает, что уже не нужно закупать 10000 видеокарт, чтобы иметь свой ИИ, а он будет доступен как ядро операционной системы на любом устройстве — компьютере, телефоне, холодильнике, утюге.

Среди наиболее мрачных даров Просвещения было осознание того, что люди могут однажды вымереть. 

Астрономическая революция 17-го века показала, что Солнечная система действует в соответствии с высшими принципами разума и содержит кометы, которые предположительно могут столкнуться с Землей. 

Геологическая летопись, как ее интерпретировал граф де Бюффон, свидетельствует о массовых вымираниях, когда виды исчезали навсегда. 

Это подготовило почву для того, чтобы Чарльз Дарвин признал такие вымирания двигателем эволюции и, следовательно, одновременно силой, создавшей людей, и, косвенно, их возможной судьбой. 

Зарождающаяся наука термодинамика добавила космическое измерение определенности конца; 

Солнце, Земля и вся эта суета в конце концов скатятся к безжизненной «тепловой смерти».

20-й век добавил идею о том, что вымирание может произойти не естественным путем, а искусственно. Толчком к этому послужило открытие, а затем использование силы, заключенной в атомных ядрах. Прославленная некоторыми из ее первооткрывателей как способ отсрочить тепловую смерть на неопределенный срок, ядерная энергия вскоре превратилась в гораздо более непосредственную опасность. И ощутимая угроза неминуемой катастрофы, которую она представляла, отразилась на других технологиях.

Не нужно много, чтобы заставить алгоритмы машинного обучения пойти наперекосяк. Появление крупноязыковых моделей может усугубить проблему

Алгоритмы, лежащие в основе современных систем искусственного интеллекта (ИИ), нуждаются в большом количестве данных для обучения. Большая часть этих данных поступает из открытой сети, что, к сожалению, делает сайт уязвимым для кибератак, известных как «отравление данных».

Это означает изменение или добавление лишней информации в набор обучающих данных, чтобы алгоритм научился вредному или нежелательному поведению. Подобно настоящему яду, отравленные данные могут оставаться незамеченными до тех пор, пока не будет нанесен ущерб.

Отравление данными — не новая идея.

В 2017 году исследователи продемонстрировали, как такие методы могут привести к тому, что системы компьютерного зрения для беспилотных автомобилей, например, ошибочно принимают знак остановки за знак ограничения скорости. Но насколько осуществима такая уловка в реальном мире, было неясно.

Кто первым освоил новые технологии? 

Передовые вещи, как правило, стоят дорого, а это означает, что часто осваивают новое очень богатые. 

Беспощадная конкуренция побуждает первых последователей выйти за рамки статус-кво. Таким образом, вряд ли найдется группа с большей вероятностью освоить новые инструменты, чем сверхбогатая и гиперконкурентная индустрия хедж-фондов.

Похоже, это правило справедливо для искусственного интеллекта (ИИ) и машинного обучения, которые впервые были использованы хедж-фондами несколько десятилетий назад, задолго до недавнего ажиотажа. 

Машины придут за вашим урожаем — по крайней мере, на нескольких полях. 

Этой осенью производитель тракторов John Deere отправил фермерам свой первый парк полностью беспилотных машин. 

Почвообрабатывающие тракторы оснащены шестью камерами, которые используют искусственный интеллект (ИИ) для распознавания препятствий и маневрирования. Около половины автомобилей, которые продает John Deere, имеют некоторые возможности искусственного интеллекта. Это включает в себя системы, которые используют бортовые камеры для обнаружения сорняков среди культур, а затем распыляют пестициды, и комбайны, которые автоматически меняют свои собственные настройки, чтобы терять как можно меньше зерна. 

Для фермы среднего размера дополнительные затраты на покупку трактора с искусственным интеллектом окупаются за два-три года.